Google Cloud сообщила, что в следующем месяце станут доступны инстансы Google Compute Engine A3 на базе платформы NVIDIA HGX H100 с восемью ускорителями H100, двумя процессорами Intel Xeon Sapphire Rapids, 2 Тбайт, а также интерконнектом NVLink и адаптерами Google Titanium. Платформ обеспечивает высокую производительность для всех видов ИИ-приложений, в том числе для обучения и обслуживания особенно требовательных рабочих нагрузок ИИ и больших языковых моделей (LLM).

В блоге Google Cloud отмечено, что сочетание ускорителей NVIDIA с ведущими инфраструктурными технологиями Google Cloud обеспечивает масштабируемость и производительность и является огромным шагом вперёд в возможностях ИИ: обучение происходит в 3 раза быстрее, а пропускная способность сети в 10 раз выше, чем у предыдущего поколения. Инстансы A3 также поддерживают масштабирование до 26 тыс. ускорителей H100.

Изображение: NVIDIA

Незадолго до этого Google Cloud объявила NVIDIA партнёром года по генеративному ИИ (Generative AI Partner of the Year). Компании сотрудничают по разным направлениям: от проектирования инфраструктуры до реализации программного обеспечения, чтобы упростить создание и развёртывание приложений ИИ на платформе Google Cloud. PaxML, платформа Google для создания больших языковых моделей, теперь оптимизирована для решений NVIDIA и доступна в реестре NVIDIA NGC. Google использовала PaxML для создания внутренних моделей, включая DeepMind, а также исследовательских проектов.

Кроме того, компании сервис Google Dataproc позволяет задействовать решения NVIDIA для ускорения работы Apache Spark. H100 вскоре также появятся на платформе Vertex AI. Наконец, было обещано, что в облаке Google появятся NVIDIA DGX Cloud и новейшие гибридные чипы GH200. Впрочем, вместе с анонсом A3 Google представила ИИ-инстансы на базе собственных ускорителей TPU v5e.

Платформа Google Cloud объявила об открытии облачного региона Берлин-Бранденбург: это вторая такая площадка на территории Германии и 12-я по счёту в Европе. Новая инфраструктура будет обслуживать как местных клиентов, так и заказчиков из соседних стран, в частности, из Чехии, где нет собственного облачного региона Google.

О планах по созданию площадки компания впервые объявила в сентябре 2021 года. Данный проект является частью масштабной программы, предусматривающей развитие цифровой инфраструктуры и чистой энергии в Германии. На эти цели в период с 2021-го по 2030 год Google планирует потратить €1 млрд.

Источник изображения: Google

Площадка будет функционировать наряду с первым германским регионом Google Cloud, который располагается во Франкфурте-на-Майне. Оба региона при содействии T-Systems будут предоставлять услуги «суверенного облака», которое отличается более строгим контролем за хранением, перемещением и обработкой данных. Наличие второго региона на территории страны позволит улучшить отказоустойчивость для местных государственных, финансовых и иных критических служб.

Google Cloud также оперирует в Европе регионами europe-west1 (Бельгия), europe-west2 (Лондон, Великобритания), europe-west3 (Франкфурт-на-Майне, Германия), europe-west4 (Нидерланды), europe-west6 (Цюрих, Швейцария), europe-west8 (Милан, Италия), europe-west9 (Париж, Франция), europe-west12 (Турин, Италия), europe-central2 (Варшава, Польша), europe-north1 (Финляндия) и europe-southwest1 (Мадрид, Испания).

Как сообщает Silicon Angle, учёные Гарвардского университета развёрнули в Google Cloud Platform облачный суперкомпьютер для эффективного изучения способов лечения заболеваний сердца. Ожидается, что такой метод использования облачных ресурсов поможет и другим учёным, имеющим затруднения с доступом к мощным HPC-системам.

По словам учёных, исследование предполагало моделирование новой методики лечения, в теории позволяющей растворять тромбы и устранять опухолевые клетки в кровеносной системе. Для этого требовались большие вычислительные ресурсы, обычно доступные только пользователям суперкомпьютеров. Команде выделили машинное время для проведения лишь одной симуляции на суперкомпьютере, поэтому им пришлось искать выход из положения. В итоге учёные обратились к Citadel Securities, которая помогла развернуть виртуальный суперкомпьютер в облаке Google.

Источник изображения: franganillo/pixabay.com

Платформы вроде Google Cloud по умолчанию не очень хорошо подходят для выполнения научных задач, поскольку для этого требуется ряд изменений в инфраструктуре, которые уже делаются. А пока Гарвард совместно с Citadel Securities и Швейцарской высшей технической школой Цюриха объединили тысячи инстансов в Google Cloud для создания виртуального суперкомпьютера. Они провели тонкую настройку ПО для объединения распределённых ресурсов и добились порядка 80 % производительности реального суперкомпьютера.

Впрочем, некоторые эксперты сомневаются, что такой метод доступа к HPC-ресурсам составит конкуренцию настоящим суперкомпьютерам, поскольку загрузка облачных платформ и без того высока, особенно в эпоху освоения генеративного ИИ. Отметим, что масштабные облачные HPC-системы сами по себе далеко не новы. Один из первых экспериментов был сделан ещё в 2019 году, тогда удалось объединить 50 тыс. ускорителей. А пару лет назад облачный суперкомпьютер Descartes Labs попал в TOP500.

Стремясь удовлетворить ожидаемый спрос на генеративный ИИ, компания Microsoft увеличила капвложения в IV квартале 2023 финансового года до $10,7 млрд с $7,8 млрд в предыдущем квартале, пишет Data Center Dynamics (DCD). Капвложения Google во II квартале 2023 года составили $6,89 млрд, что, впрочем, ниже первоначальных прогнозов аналитиков, ожидавших около $7,9 млрд. Это связано с замедлением строительства офисов и задержками «некоторых проектов строительства ЦОД», отметил DCD.

Как сообщает Microsoft значительные средства были вложены в дата-центры, вычислительную инфраструктуру и сети. По словам компании, капвложений с каждым кварталом будут увеличиваться на протяжении всего 2024 финансового года. «Ускорение действительно довольно значительное, — отметила финдиректор Эми Худ (Amy Hood) в квартальном отчёте. — Это касается как ЦОД, так и CPU с GPU, а также сетевого оборудования». Худ добавила, что компания направляет средства на увеличение ёмкости для «обычных рабочих нагрузок Azure, а также некоторых рабочих нагрузок ИИ».

Источник изображения: Microsoft

Вложив миллиарды долларов в OpenAI, Microsoft стала единственным облачным провайдером стартапа, но вместе с тем, как и другие гиперскейлеры, стремится получить достаточное количество ускорителей NVIDIA. Ранее она подписала соглашение о сотрудничестве с CoreWeave об использовании его мощностей для обработки ИИ-нагрузок своих клиентов. По слухам, аналогичное соглашение Microsoft имеет и с Lambda. А до этого она обсуждала совместное использование ускорителей с Oracle, поскольку NVIDIA, похоже, предпочитает отдавать новейшие продукты тем компаниям, которые не пытаются разработать собственные ИИ-ускорители.

«Главная задача — быть в состоянии активно удовлетворять кривую спроса», — заявила Худ. Возможность увеличения капвложений обеспечивается ростом доходов: Microsoft сообщает об увеличении выручки за квартал на 8 % год к году до $56,2 млрд. Продажи облака Azure выросли на 27 %. Компания отметила, что около одного п.п. роста приходится на ИИ, и в следующем квартале, как ожидается, рост ИИ составит 2 п.п. При этом Microsoft не предоставляет финансовые данные по Azure. Известно лишь, что выручка подразделения Intelligent Cloud, куда входит Azure, составила в минувшем квартале $24 млрд.

Источник изображения: Google

Google также заявила, что инвестирует значительные средства в ЦОД и ИИ-инфраструктуру. «Самая большая часть расходов пришлась на серверы, что включало значительное увеличение наших инвестиций в ИИ-вычисления», — сообщила в квартальном отчёте Рут Порат (Ruth Porat) финансовый директор холдинга Alphabet, куда входит Google. По словам Порат, «уровни инвестиций в техническую инфраструктуру [вырастут] во II половине 2023 года и продолжат расти в 2024 году», что позволит наверстать медленный старт. Компания будет «инвестиировать в GPU и TPU, а также в мощности ЦОД».

В свою очередь, глава Alphabet Сундар Пичаи (Sundar Pichai) заявил, что ИИ-инфраструктура компании является ведущей платформой для обучения и обслуживания моделей генеративного ИИ. Более 70 % компаний-единорогов в этой области являются клиентами Google Cloud, включая Cohere, Jasper, Typeface и т.д. Также компания, по его словам предлагает, самые широкие возможности ИИ-суперкомпьютинга на базе TPU и ускорителей NVIDIA. Подразделение Google Cloud сообщило о 28-% увеличении продаж во II квартале (до $8 млрд) в годовом исчислении и прибыли в размере $395 млн.

Холдинг Alphabet, материнская структура Google, отрапортовал о работе во II четверти 2023 года. Выручка за трёхмесячный период составила приблизительно $74,6 млрд, что на 7 % больше прошлогоднего результата ($69,7 млрд). Причём показатель превзошёл ожидания аналитиков, прогнозировавших выручку в размере $72,8 млрд.

Чистая прибыль Alphabet в период с апреля по июнь включительно достигла $18,4 млрд против $16,0 млрд годом ранее. Прибыль в пересчёте на одну ценную бумагу увеличилась в годовом исчислении с $1,21 до $1,44.

Источник изображения: Google

В отчёте говорится о продолжающемся расширении облачного бизнеса Google Cloud. Выручка в данном сегменте во II квартале 2023-го составила $8,0 млрд против $6,3 млрд годом ранее. Таким образом, рост оказался на уровне 28 %. При этом была показана операционная прибыль в размере $395 млн, в то время как во II четверти 2022 года подразделение Google Cloud продемонстрировало операционные убытки в $590 млн. В прошлом квартале облако Google впервые за 15 лет получило прибыль.

Генеральный директор Alphabet Сундар Пичаи отметил, что в перспективе расширению Google Cloud будут способствовать приложения и сервисы на основе ИИ, которым требуются значительные вычислительные ресурсы. По его словам, инфраструктура Google Cloud, оптимизированная для ИИ, является одной из ведущих в отрасли платформ для обучения генеративным моделям.

На этом фоне холдинг Alphabet несколько расширил штат. По состоянию на конец июня 2023 года в различных подразделениях трудились в общей сложности 181 798 сотрудников. Для сравнения: годом ранее у компании было 174 014 работников.

Облачная площадка Google Cloud объявила о приёме на работу Криса Вондерхаара (Chris Vonderhaar) — бывшего главы отдела проектирования, строительства и эксплуатации дата-центров Amazon Web Services (AWS). О том, что Вондерхаар покинул AWS, стало известно немногим более месяца назад.

Вондерхар присоединился к Amazon в 2010 году. В последние годы занимал пост вице-президента сети ЦОД AWS. Помимо развития инфраструктуры дата-центров, он курировал инициативы облачного гиганта в области устойчивого развития, включая инвестиции в возобновляемые источники энергии. Как теперь стало известно, Крис Вондерхаар возглавит подразделение, отвечающее за цепочки поставок и работу Google Cloud.

Вместе с тем Урс Хёльцле (Urs Hölzle), который был восьмым по счёту сотрудником Google и руководил проектированием первых дата-центров компании, уходит в отставку. Хёльцле, проработавший в корпорации почти 24 года, сказал, что сосредоточится на предоставлении консультационных услуг, а также на выполнении некоторых технических работ, в частности, связанных с ИИ. В рамках перестановки в руководящем составе вице-президент по инженерным вопросам Google Cloud Бен Трейнор Слосс (Ben Treynor Sloss) начнёт подчиняться непосредственно Томасу Куриану (Thomas Kurian) — генеральному директору Google Cloud.

Источник изображения: Google

AWS, в свою очередь, переманила к себе Рэйджин Скиллерн (Raejeanne Skillern) на должность вице-президента и главного директора по маркетингу (CMO). Скиллерн проработала в Intel с 2002 по 2019 год. Перед уходом из компании она занимала должность вице-президента и отвечала за взаимодействие с облачными провайдерами. На новом месте она будет отвечать за развитие AWS, в том числе за направление ИИ. Примечательно, что позиция CMO в AWS не была занята с сентября 2022 года.

Как сообщает ресурс DCD, Google на этой неделе направила в Федеральную торговую комиссию (FTC) письмо в рамках проводимого регулятором расследования в облачном секторе, в котором обвинила Microsoft и Oracle в антиконкурентной практике в отношении своего облачного бизнеса и лицензирования ПО и предоставила подробное описание предполагаемых нарушений.

Изображение: Twitter / looper

В марте FTC отправила запрос участникам рынка на получение информации о деловой практике поставщиков облачных услуг. Ожидается, что предоставленные компаниями комментарии помогут комиссии определить, насколько некоторые сегменты экономики зависят от облачных сервисов, а также риски безопасности, связанные с их деятельностью. Крайний срок подачи комментариев истёк на этой неделе. Всего было получено более 90 комментариев.

В частности, FTC хотела бы получить оценку способности клиентов облачных сервисов заключать контракты с облачными провайдерами, описание стимулов, которые провайдеры предлагают клиентам для получения доли рынка, а также узнать, насколько клиенты зависят от проприетарных услуг и в какой мере поставщики облачных услуг информируют клиентов о рисках безопасности.

«Google Cloud… разделяет обеспокоенность, которую высказывали многие другие, в том числе клиенты и партнёры, что условия лицензирования, применяемые Microsoft, Oracle и другими поставщиками устаревшего локального ПО, искажают конкуренцию в облаке», — говорится в 11-страничном письме Google, направленном в FTC. Google отметила, что, используя чрезмерно сложные соглашения, направленные на привязку клиентов к их экосистемам, эти провайдеры пытаются монополизировать облачный рынок.

Источник: Synergy Research Group

«При этом они не только подталкивают клиентов к монолитной облачной модели, но и ограничивают выбор, увеличивают затраты для клиентов и подрывают растущие и процветающие цифровые экосистемы в США и во всем мире», — подчеркнула Google. Google и раньше обвиняла Microsoft в «ограничительном и дискриминационном лицензировании и других вредных действиях», таких как ограничение совместимости определённых функций и ПО с облачной инфраструктурой, отличной от Azure.

Oracle, в свою очередь, письме обвинила AWS в использовании «хищнических методов выставления оплаты для исключения конкуренции» и в том, что она является «злейшим нарушителем» в отношении стоимости отдачи данных из облака. Oracle также предложила FTC «тщательно расследовать», использует ли Amazon свою монопольную позицию в космической индустрии.

AWS, бессменный лидер рынка, не стала критиковать конкурентов, а вместо этого отметила их быстрый рост в последние годы. «Ни у одного облачного провайдера нет ничего близкого к “монополии”, и отрасль становится всё менее концентрированной», — заявили в компании. Фонд Electronic Frontier Foundation (EFF) отметил «доминирующую» роль AWS на рынке облачных услуг, назвав компанию «несущей стеной интернета».

Источник: Synergy Research Group

Microsoft, занимающая второе место на рынке, тоже отметила существующую конкуренцию в облачной индустрии и заявила, что регулирующие органы должны «тщательно избегать любого вмешательства, которое может нарушить конкурентные предложения», предоставляемые отраслью. По данным Canalys, на долю AWS и Microsoft Azure в I квартале 2023 года пришлось более половины всех затрат на облачные услуги в мире.

Ассоциация европейских поставщиков облачных сервисов CISPE (Cloud Infrastructure Services Providers in Europe), которую поддерживает AWS, но не Microsoft, отметила в письме регулятору, что компании в Европе вынуждены платить «несправедливые дополнительные расходы» за лицензирование ПО в облачной инфраструктуре, предоставляемом независимыми поставщиками услуг облачной инфраструктуры, указав в качестве примера на Microsoft.

При этом в Европе неоднократные попытки избавиться от «облачного ига» американских гиперскейлеров успехом не увенчались, с годами их лидерство лишь стремительно укрепляется. Наконец, некоммерческий исследовательский центр EPIC (Electronic Privacy Information Center) предупредил в своём письме FTC, что на рынке ИИ основная доля сконцентрирована у небольшого числа провайдеров.

Источник: Synergy Research Group

Как отметил DCD, аналогичное расследование может начаться в Великобритании, поскольку британский регулятор в секторе телекоммуникаций Office of Communications (Ofcom) недавно предложил Управлению по конкуренции и рынкам (CMA) изучить рынок облачной инфраструктуры, чтобы выяснить, необходимо ли регулирование для улучшения конкуренции.

Международная консалтинговая компания Accenture сообщила о расширении стратегического партнёрства с тремя крупнейшими провайдерами облачных вычислений — AWS, Microsoft и Google — с целью обеспечения возможности использования корпоративными клиентами последних достижений в области искусственного интеллекта (ИИ). О расширении сотрудничества с было объявлено после того, как Accenture сообщила на прошлой неделе о планах инвестировать $3 млрд в свою практику работы с данными и ИИ в связи с резким ростом интереса к генеративному ИИ.

Клиенты Accenture стремятся использовать в своей работе преимущества этой технлогии, позволяющей создавать различный контент без вмешательства человека. Председатель и гендиректор Accenture Джули Свит (Julie Sweet) заявила, что компания наблюдает «беспрецедентный интерес ко всем областям ИИ», поэтому она решила помочь клиентам реализовать этот интерес и планируяет удвоить кадровый потенциал в области ИИ до 80 тыс. специалистов, дополнительно создав «акселераторы» в 19 различных отраслях.

Источник изображения: Accenture

Accenture совместно с AWS займётся разработкой ряда новых отраслевых и межотраслевых предложений ИИ, включая готовые модели и обучающие платформы, что поможет компаниям перейти от экспериментов к фактическому внедрению ИИ. Компания планирует помочь клиентам в работе с сервисом Amazon Bedrock, базовыми моделями и другими инструментами, включая AWS SageMaker. В частности, Accenture займётся практическим использованием ИИ для поддержки клиентов в финансовых сервисах, в сфере наук о жизни и цепочке поставок. Она также собирается нанять больше специалистов AWS в сфере ИИ для помощи в своей консультационной работе и обеспечить свои существующие команды навыками и сертификатами AWS.

Сотрудничество Accenture с Microsoft будет нацелено на совместную разработку «новых отраслевых и функциональных решений», а также новых вариантов использования ИИ в сфере финансовых услуг, контакт-центров, безопасности и логистики, и т.д. Accenture заявила, что будет тесно сотрудничать с командой Microsoft Azure OpenAI Service Engineering и консалтинговой компанией Avanade над обучением и оснащением людей передовыми навыками в области генеративного ИИ. Сейчас она работает с рядом клиентов над пилотным запуском новых технологий, таких как Microsoft 365 Copilot, Security Copilot, Semantic Kernel и Azure OpenAI Service.

Что касается Google Cloud, то вместе с этой облачной службой Accenture планирует заниматься совместной разработкой различных новых услуг и предложений, использующих преимущества её отраслевого опыта и набора инструментов генеративного ИИ Google Cloud. В частности, Accenture планирует определить способы использования генеративного ИИ для улучшения бизнес-процессов в 19 отраслях и шести бизнес-функциях.

Новый руководитель социальной сети Twitter Линда Яккарино (Linda Yaccarino) взяла курс на нормализацию отношений с партнёрами компании — при ней возобновилась оплата услуг Google Cloud, приостановленная Илоном Маском. Как сообщает DataCenter Dynanics, попытка сэкономить привела к угрозе отключения некоторых важнейших сервисов Twitter.

Купив социальную сеть, Илон Маск активно занялся оптимизацией её расходов, в числе прочего приостановив расчёты с Google Cloud, предоставлявшей ряд важных облачных сервисов, и фактически занявшись психологическим давлением. Известно, что между Twitter и Google заключено многолетнее соглашение общей стоимостью порядка $1 млрд, в рамках которого только в 2023 году социальная сеть должна заплатить порядка $300 млн. Переговоры о возобновлении сделки должны были вестись уже в июне, поэтому Маск решил надавить на руководство Google Cloud, приостановив платежи до заключения новой договорённости.

Источник изображения: ilgmyzin/unsplash.com

Руководство Google Cloud, не имея прямой связи с Маском, пыталось выйти на него через руководство SpaceX, также пользующейся облачными сервисами компании. Всё это тянулось до самого вступления Яккарино в должность. Маск рассчитывал сократить не только оплату облачной инфраструктуры, выведя ряд сервисов из Google Cloud, но, как выяснилось, не успевал до окончания действия контракта 30 июня, поэтому под угрозой оказалась работа фильтров, отсеивающих ботов, материалы с преступлениями в отношении детей, экстремистский контент и др.

Приём с давлением Маск пытался воспроизвести и с облачными сервисами Amazon Web Services (AWS), также приостановив платежи. После этого в AWS отказались платить за рекламу в Twitter и отношения были довольно быстро частично восстановлены. Придя к власти в Twitter, Линда Яккарино наладила прямой контакт с главой Google Cloud Томасом Курианом (Thomas Kurian) и начала оплату задолженности — по некоторым данным, с одобрения Маска. Также главы компаний обсуждают расширение сотрудничества, включая рекламные проекты и использование API Twitter компанией Google.

Компания Google начала внедрение решений на основе систем ИИ в финансовом секторе. Облачное подразделение техногиганта представило инструмент Anti Money Laundering AI (AML AI) для оценки подозрительных транзакций. Как сообщает Silicon Angle, это позволяет в некоторых случаях выявлять в 2–4 раза больше примеров подозрительной активности, чем способно обнаружить обычное ПО.

Хотя банки и прочие организации подобного типа давно используют автоматизированные системы выявления подозрительной активности, ИИ позволяет вывести эту практику на новый уровень. Традиционно используются вручную настраиваемые правила для отслеживания перемещений средств. Но новые алгоритмы помогают адаптировать правила без вмешательства человека. В частности, это обеспечивает быструю реакцию на часто меняющиеся механизмы отмывания денег. Там, где люди заметят новые способы с задержкой, ИИ сработает на упреждение. При этом сотрудники всегда смогут донастроить систему, если это необходимо.

Источник изображения: wir_sind_klein/pixabay.com

Обкатывать новую технологию Google начала на площадках HSBC Holding, Banco Bradesco S.A. и Lunar. Именно в случае с HSBC сервис AML AI начал выявлять вдвое, а иногда и вчетверо больше примеров подозрительной активности, чем обычно. Одновременно более чем на 60 % упала доля ложноположительных срабатываний. Такие инциденты особенно важны, поскольку могут не только доставлять неудобства клиентам, но и отнимают ресурсы. AML AI обеспечит сотрудникам финансовых организаций больше времени для подробного расследования действительно подозрительных случаев.

AML AI — лишь последнее в серии решений Google Cloud для финансового сектора. Ранее компания предлагала архитектуру, ускоряющую подключение к системе SWIFT, а ещё раньше дебютировал сервис Datashare, упрощающий организациям доступ к данным о рынке при принятии решений об инвестициях. Google Cloud активно развивает ИИ-сервисы в целом. Например, в мае компания объявила о расширении сотрудничества с SAP.